LangChain 是開放原始碼的架構,可根據大型語言模型 (LLM) 打造應用程式。LLM 是針對大量資料預先訓練的大型深度學習模型,可以對使用者查詢生成回應,例如回答問題或從文本提示中建立影像。LangChain 提供工具和抽象化,藉以改善模型產生之資訊的客製化程度、準確度和關聯性。例如,開發人員可使用 LangChain 元件建立新提示鏈,或客製化現有的範本。LangChain 還包括其他元件,讓 LLM 無須重新訓練即可取得新資料。
統整了許多多多多多開源工具,如先前提到的 Milvus 或者 Qdrant 等等的 (詳細可參考這裡),針對 LLM API 的部分 Langchain 也整合了像是對 OpenAI、AzureOpenAI、You 的支持,透過這個工具,開發者可以很輕易地使用不同的大型語言模型服務。
如其名,「Chain」就是可以透過「鍊」去串接使用者的輸入、處理及輸出,所以 Langchain 也是在開發專案的一個很好的工具,由於整合了許多大型語言模型服務,所以也可以依照自己的需求很快的切換不同的服務。
Langchain 包含了不同的元件,如:
Langchain
Langchain 的所有基本框架,如資料儲存,文件分割,檢索等等工具
LangServe
可以快速部屬 FastAPI 的服務
LangGraph
用圖形化介面定義、執行和可視化 Langchain 的工作流
LangSmith
LangGraph 的進階版,提供完整的 Langchain 的資料流檢視,例如 RAG 的文件加載、拆分、存儲和檢索等步驟,可透過前端頁面檢視生成的過程